Создатель ChatGPT: История Сэма Альтмана - Кич Хэйги

совместно основали фонд Good Ventures. В то время Московиц был занят своей новой компанией Asana, разрабатывающей программное обеспечение для управления рабочими процессами, поэтому Туна ушла с работы в The Wall Street Journal, чтобы полностью посвятить себя Good Ventures. Почти сразу она обнаружила, что GiveWell – незаменимый инструмент для принятия решений о благотворительности. Как она рассказала изданию The Chronicle of Philanthropy, консультанты советовали им с Московицем руководствоваться личными интересами, но у пары был иной подход. Они хотели поддерживать организации, в которых, по ее словам, «наше дополнительное финансирование принесет максимальную пользу с точки зрения улучшения жизни других людей»[269]. К 2014 году фонд Good Ventures согласился финансировать ответвление GiveWell под названием GiveWell Labs, которое впоследствии переименовали в Open Philanthropy. Изначальная идея Open Phil, как его часто называют, заключалась не только в следовании принципам эффективного альтруизма, но и в абсолютной прозрачности процесса принятия решений – вплоть до мельчайших, порой болезненных деталей, вроде поста на 2800 слов, объясняющего назначение Хлои Кокберн руководителем программы реформы уголовного правосудия, на которую в итоге было потрачено более 200 миллионов долларов.

Вскоре после создания Open Philanthropy фокус движения эффективного альтруизма начал смещаться с насущных земных проблем вроде реформы залоговой системы и борьбы с паразитарными заболеваниями к более масштабной задаче – сохранению жизней всех людей, которые могли бы родиться в будущем. Это означало концентрацию на угрозах, имеющих небольшую, но реальную вероятность уничтожить человечество: ядерная война, глобальные пандемии или вышедший из-под контроля искусственный интеллект. Эта тенденция нашла свое отражение и в деятельности Open Philanthropy.

В марте 2017 года, спустя два месяца после конференции в Асиломаре, фонд выделил OpenAI 30 миллионов долларов, а Холден Карнофски вошел в совет директоров компании. К объявлению о финансировании прилагалось раскрытие информации: Дарио Амодеи и Пол Кристиано, уже принявшие решение присоединиться к OpenAI в качестве исследователей, выступали техническими консультантами Open Philanthropy и жили в одном доме с Холденом. Более того, Холден был помолвлен с Даниэлой, сестрой Дарио. Впоследствии Карнофски женился на Даниэле Амодеи, которая в итоге также присоединилась к OpenAI, где возглавила кадровое подразделение. Этот грант Open Philanthropy был представлен не столько как благотворительность, сколько как «партнерство», которое позволило бы фонду продвигать идеи безопасности ИИ внутри компании. Явно прослеживалось и желание фонда заставить OpenAI пересмотреть планы по открытию исходного кода – об этой идее Маск и Альтман активно говорили в ранних интервью. Маск долгое время был ярым сторонником технологий с открытым исходным кодом и даже сделал большинство патентов Tesla общедоступными. Однако заметка о гранте Open Phil ссылалась на эссе из блога Slate Star Codex, где утверждалось, что план OpenAI по открытому коду может привести к уничтожению человечества из-за неосторожного, недобросовестного или даже злонамеренного использования технологии. В обновленном заявлении о миссии OpenAI, представленном вместе с сообщением о получении гранта, лаборатория Альтмана критиковала погоню за прибылью и продуктами, а также начала отходить от идеи открытого исходного кода: «Мы не будем скрывать информацию ради частной выгоды, но в долгосрочной перспективе планируем создать формальные процедуры для ограничения доступа к технологиям для предотвращения рисков, связанных с безопасностью»[270].

Так началось прощание с мечтой Маска об открытом коде. В то же время новое финансирование стало важным шагом к обретению OpenAI ресурсов для воплощения давно зревших футуристических идей Алана Кэя, экстропианцев, писателей-фантастов, а теперь уже и Сэма Альтмана. В заявлении даже вспомнили знаменитое высказывание Кэя: «Лучший способ предсказать будущее – изобрести его».

Но цена, которую OpenAI в конечном итоге заплатит за альянс с эффективными альтруистами, окажется намного выше, чем мог предположить Альтман.

Глава 13

Разворот в сторону прибыли

В один из пятничных дней августа 2017 года 20 000 фанатов многопользовательской онлайн-игры Dota 2 (сокращенно от Defense of the Ancients, «Защита Древних») выстроились в очередь перед Ки-ареной в центре Сиэтла. Это сооружение, изначально построенное для Всемирной выставки 1962 года, в недавнем прошлом служило домашней площадкой для баскетбольной команды «Сиэтл Суперсоникс». Многие фанаты облачились в головные уборы и доспехи таких персонажей, как Shadow Fiend и Centaur Warrunner, которые населяли вселенную, стихийно и бесконтрольно выросшую в 2003 году из Warcraft III: Reign of Chaos от Blizzard Entertainment. Dota превратилась в такой культурный феномен, что другая игровая компания, Valve, выкупила права на нее и учредила первый по-настоящему масштабный мировой чемпионат The International с призовым фондом более 20 миллионов долларов – крупнейшим в истории киберспорта. Профессиональные матчи представляли собой противостояния пять на пять, которые порой сравнивали с гибридом шахмат и баскетбола. Но в том году состоялся еще и показательный матч «один на один», которому суждено было войти в историю: один из лучших в мире игроков в Dota – Данил «Денди» Ишутин против бота, обученного OpenAI.

Денди появился на арене в клубах дыма, закутанный в мантию и пританцовывая, как боксер перед боем. Его соперника выкатили на сцену на колесиках и запустили, театрально воткнув флешку. Поединок закончился, не успев начаться. «Ах ты хитрюга!» – вскрикнул Ишутин почти сразу, когда бот OpenAI атаковал его крипов. За считаные секунды искусственный интеллект уничтожил аватар чемпиона, а его собственный персонаж злорадно вспыхнул демонически-красным в знак триумфа. Ишутин проиграл первую партию, сдался во второй и отказался от третьей. «Он слишком силен», – признался игрок.

В паре шагов от Денди стоял Брокман в черной футболке с V-образным вырезом, с бритой почти наголо головой. Он улыбался, и в его глазах мелькало что-то хищное. «Позвольте рассказать вам о следующем этапе проекта. Следующий этап – это игра пять на пять», – объявил он. Аудитория взревела. Стоявший рядом Якуб Пачоцки, исследователь ИИ родом из Польши с по-детски открытым лицом, возглавивший команду Dota в OpenAI в феврале, после постдокторской стажировки в Гарварде, искоса взглянул на Брокмана, и его улыбка с глубокими ямочками на щеках застыла, превратившись в едва заметную маску ужаса. Брокман никому из команды не сообщил об этих планах[271].

В культурном плане эта победа, конечно, не шла ни в какое сравнение с триумфом AlphaGo над Ли Седолем в игре, известной со времен бронзового века, в которую играют десятки миллионов людей по всему миру. Но Маск не преминул заявить, что достижение OpenAI куда значительнее. «OpenAI первой в истории победила лучших игроков мира в соревновательном киберспорте. Это намного сложнее традиционных настольных игр вроде шахмат и го», – написал он в «Твиттере»[272].

Мало кто заметил его следующий пост: «Хотим выразить благодарность Microsoft за использование их облачной платформы Azure. Проект потребовал колоссальных вычислительных мощностей». За несколько месяцев до этого Альтман